Bồ Kiện sinh năm 317, là con trai thứ ba của Bồ Hồng (蒲洪) và người vợ Khương thị, khi đó Bồ Hồng đang là một tộc trưởng người Đê dưới quyền cai trị của Hán Triệu. Tuy nhiên, trong phần lớn thời thơ ấu của Bồ Kiện, Bồ Hồng phụng sự dưới quyền hoàng đế Thạch Hổ của Hậu Triệu. Thạch Hổ trong khi bề ngoài đánh giá cao việc phụng sự của Bồ Hồng, thì bên trong lại lo sợ sâu sắc về lòng trung thành của những binh lính người Đê của Bồ Hồng đối với mình, và đã bí mật giết chết hai con trai đầu của Bồ Hồng. Tuy nhiên, do bị ấn tượng trước tính gan dạ, tài bắn cung, cưỡi ngựa, và lòng quảng đại của Bồ Kiện, Thạch Hổ đã tha cho ông.

Năm 349, Thạch Hổ lâm bệnh, ông ta phong Bồ Hồng làm thứ sử Ung Châu (雍州, nay là trung bộ và bắc bộ Thiểm Tây). Tuy nhiên, Bồ Hồng đã không lập tức đảm nhiệm chức vụ do phải chuyển giao binh lính người Đê tại căn cứ của ông ở Phương Đầu (枋頭, nay thuộc Hạc Bích, Hà Nam).